Um golpe envolvendo vídeos falsos do CEO do YouTube, criados com inteligência artificial, foi exposto. Criadores de conteúdo devem ficar atentos para não cair em armadilhas similares.

De acordo com a CCTV News, um grupo criminoso em Huangshi, Hubei, foi recentemente preso por usar tecnologia de deepfake para desbloquear e revender contas de mídia social, obtendo lucros ilegais. A vítima, Sr. Wang, após ingressar em uma sala de bate-papo sobre investimentos, foi induzido a investir e acabou enfrentando dificuldades para sacar seu dinheiro. A conta do golpista foi congelada por suspeita de fraude, e o dinheiro não pôde ser resgatado.

Vídeos gerados por IA estão se tornando cada vez mais realistas, tornando difícil para humanos (e sistemas de detecção existentes) distinguir entre vídeos reais e falsos. Para resolver esse problema, pesquisadores da Faculdade de Engenharia da Universidade de Columbia, liderados pelo professor de Ciência da Computação Junfeng Yang, desenvolveram uma nova ferramenta chamada DIVID para detectar vídeos gerados por IA, abreviação de DIffusion-generated VIdeo Detector. O DIVID é o resultado do trabalho da equipe, lançado anteriormente este ano.

O Instituto de Computação Inteligente da Alibaba lançou a tecnologia Animate Anyone, capaz de transformar imagens estáticas em vídeos dinâmicos de alta fidelidade. A tecnologia aprimora os sistemas de imagem para vídeo, resolvendo problemas de alucinações, mas ainda enfrenta desafios no processamento de movimentos oculares e de mãos. Apesar dos avanços tecnológicos, surgem preocupações sobre o uso indevido, permitindo a criação de vídeos falsos usando fotos pessoais, o que pode levar à disseminação de informações falsas. A equipe está preparando ativamente o código para demonstrações e uso público, mas teme o risco de desinformação com o aumento do número de vídeos falsos. A internet está entrando em uma era de 'falsas danças'?